Что такое функции активации и как они различаются по вычислительной сложности, разреженности и поведению градиента
Функция активации нейрона определяет выходной сигнал, который определяется входным сигналом или набором входных сигналов.
▪️ Sigmoid Преобразует входы в диапазон 0-1 (бинарная классификация). Проблемы: исчезающие градиенты при экстремальных значениях. Разреженность: низкая.
▪️ Tanh Преобразует входы в диапазон -1 до 1. Проблемы: исчезающие градиенты, но менее выраженные, чем у сигмоиды. Разреженность: средняя.
▪️ ReLU (Rectified Linear Unit) Устанавливает отрицательные значения в 0, оставляя положительные. Проблемы: «умирающий ReLU» — нейроны становятся неактивными. Разреженность: высокая.
▪️ Leaky ReLU Модификация ReLU с малым наклоном для отрицательных значений. Проблемы: «умирающий ReLU» минимизируется. Разреженность: ниже, чем у ReLU.
Что такое функции активации и как они различаются по вычислительной сложности, разреженности и поведению градиента
Функция активации нейрона определяет выходной сигнал, который определяется входным сигналом или набором входных сигналов.
▪️ Sigmoid Преобразует входы в диапазон 0-1 (бинарная классификация). Проблемы: исчезающие градиенты при экстремальных значениях. Разреженность: низкая.
▪️ Tanh Преобразует входы в диапазон -1 до 1. Проблемы: исчезающие градиенты, но менее выраженные, чем у сигмоиды. Разреженность: средняя.
▪️ ReLU (Rectified Linear Unit) Устанавливает отрицательные значения в 0, оставляя положительные. Проблемы: «умирающий ReLU» — нейроны становятся неактивными. Разреженность: высокая.
▪️ Leaky ReLU Модификация ReLU с малым наклоном для отрицательных значений. Проблемы: «умирающий ReLU» минимизируется. Разреженность: ниже, чем у ReLU.
If riding a bucking bronco is your idea of fun, you’re going to love what the stock market has in store. Consider this past week’s ride a preview.The week’s action didn’t look like much, if you didn’t know better. The Dow Jones Industrial Average rose 213.12 points or 0.6%, while the S&P 500 advanced 0.5%, and the Nasdaq Composite ended little changed.
Telegram is riding high, adding tens of million of users this year. Now the bill is coming due.Telegram is one of the few significant social-media challengers to Facebook Inc., FB -1.90% on a trajectory toward one billion users active each month by the end of 2022, up from roughly 550 million today.
Библиотека собеса по Data Science | вопросы с собеседований from hk
